Récemment, le chercheur en sécurité Johann Rehberger a découvert une faille dans ChatGPT qui permet aux pirates d'implanter de fausses informations et des instructions malveillantes dans la mémoire à long terme des utilisateurs. Bien qu'il ait signalé le problème à OpenAI, la société n'a malheureusement pas accordé suffisamment d'importance à la question, fermant rapidement l'enquête et affirmant qu'il ne s'agissait pas d'un problème de sécurité. Face à cette situation, Rehberger a décidé de ne pas abandonner et a développé une preuve de concept d'attaque, utilisant cette faille pour…

Une étude du MIT révèle que l'IA, notamment les robots conversationnels, peut implanter des "faux souvenirs" dans le cerveau humain. Des expériences ont montré que l'IA, par le biais de questions orientées, incite les volontaires à créer de faux souvenirs, et ces souvenirs persistent. L'étude a révélé que les individus intéressés par la technologie de l'IA mais qui ne la connaissent pas bien sont plus susceptibles d'être influencés par l'IA. Cette découverte remet en question l'utilisation de l'IA dans des domaines tels que le droit, la médecine et l'éducation, et souligne la nécessité de garantir que l'IA ne devienne pas un outil d'implantation de faux souvenirs, mais un outil de protection et d'amélioration de la mémoire. La protection de la mémoire ne concerne pas seulement la cognition individuelle, ...